Untuk pertama kalinya setelah 30 tahun meninggalkan Vietnam, Ho Chi Minh kembali ke negaranya pada tahun 1941 dan mendirikan Liga untuk Kemerdekaan Vietnam (Viet Nam Doc Lap Dong Minh atau Viet Minh). Liga tersebut terdiri dari para nasionalis Vietnam dan kelompok komunis yang mendukung kemerdekaan Vietnam. Ketika itu, Viet Minh berjuang melawan pihak-pihak Perancis dan Jepun yang menduduki Vietnam.

Pada akhir Perang Dunia II, Ho memimpin Viet Minh dalam suatu operasi bergerila menakluk kota-kota besar Vietnam. Pada 2 September 1945, bertempat di Lapangan Ba Dinh, Ho Chi Minh mengisiytiharkan kemerdekaan suatu Republik Demokrasi Vietnam di mana beliau dilantik sebagai Presiden pertama republik tersebut. Tidak lama kemudian, Perancis berhasil menaklukkan Vietnam Selatan kembali dan mengajak kaum komunis Vietnam untuk berunding. Perundingan tersebut tidak mencapai kesepakatan dan Perancis menyerang kota Haiphong di bahagian utara Vietnam hingga menewaskan ribuan orang. Viet Minh menyerang balas Perancis di kota Hanoi pada 19 Disember 1945 - peristiwa ini menandakan mulalnya Perang Indochina. Mao Zedong menaruh sokongannya terhadap Viet Minh sedangkan Amerika Syarikat memihak kepada pihak Perancis dan Vietnam Selatan.

Pada tahun 1954, Perancis mengalami kekalahan besar di Dien Bien Phu, barat laut Vietnam dan memulai adanya perundingan damai.[9] Berdasarkan hasil perundingan Geneva, Vietnam dibahagikan menjadi Vietnam Utara pimpinan Ho Chi Minh dan Vietnam Selatan pimpinan Maharaja Bảo Đại; namun Ho tidak menyetujui pemisahan sedemikian malah Ho sempat menyatakan diri memiliki kekuasaan atas seluruh wilayah Vietnam dan memerintahkan Viet Minh dan pasukan Vietnam Utara untuk berjuang di daerah Vietnam Selatan yang dipengaruhi oleh Amerika Syarikat.[10]

Pada akhir tahun 1950-an, Ho membentuk suatu gerakan gerilya komunis di bahagian Vietnam Selatan yang bernama Viet Cong. Bersama dengan Vietnam Utara, Vietcong berhasil menangani campur tangan Amerika Syarikat selama satu dekad sambil beliau mengelakkan diri daripada dikesan pihak selatan pimpinan Ngô Đình Diệm yang disokong Amerika Syarikat dalam persembunyian bawah tanahnya[2]